Xã Phú Long được thành lập vào ngày 12 tháng 1 năm 1984 trên cơ sở tách ấp Long Hậu của xã Long Sơn và phần lớn đất của ấp Phú Thượng thuộc xã Phú Thành.[1]

Ngày 24 tháng 8 năm 2009, Chính phủ ban hành Nghị quyết số 40/NQ-CP[3]. Theo đó:

• Điều chỉnh 160 ha diện tích tự nhiên và 211 người của xã Phú Long về xã Long Phú, huyện Tân Châu quản lý
• Điều chỉnh 319 ha diện tích tự nhiên và 455 người của xã Phú Vĩnh, huyện Tân Châu về xã Phú Long quản lý

Sau khi điều chỉnh địa giới hành chính, xã Phú Long còn lại 1.907 ha diện tích tự nhiên và 4.863 người.